Current Result Document :
| 한글제목(Korean Title) |
효율적인 파이프라인 모델 병렬적 딥러닝을 위한 분석적 모델링 기반 최적 분할 탐색 |
| 영문제목(English Title) |
Efficient Pipelined Model Parallel Deep Learning through Optimal Partitioning Using Analytical Modeling |
| 저자(Author) |
오홍석
이영민
Hongsuk Oh
Youngmin Yi
|
| 원문수록처(Citation) |
VOL 49 NO. 02 PP. 1818 ~ 1820 (2022. 12) |
한글내용
(Korean Abstract) |
거대 모델의 등장으로 모델을 분할하여 병렬적으로 딥러닝을 수행하는 다양한 모델 병렬적 딥러닝 기법이 제시되었고, 그 중 동기식 파이프라인 모델 병렬화 기법이 널리 사용된다. 이 기법은 통신량을 줄일 수 있지만, 분할된 방식에 따라 효율이 크게 달라진다. 본 논문에서는 동기식 파이프라인 모델 병렬적 딥러닝 학습시간 예측을 위한 분석적 모델을 제안하고, 이를 사용하여 최적의 분할을 탐색하여, 기존에 알려진 분할 탐색 라이브러리를 사용했을 때보다 VGG16에서 29.7% 더 빠른 학습시간을 갖는 분할 방식을 찾았다. |
영문내용
(English Abstract) |
|
| 키워드(Keyword) |
|
| 파일첨부 |
PDF 다운로드
|
